Un nuevo informe explica cómo Bing no solo muestra pornografía infantil en sus resultados sino además que la sugiere

El buscador de Microsoft parece tener un serio problema con las cosas que muestra en sus resultados. Según una investigación encargada por TechCrunch a la startup de seguridad online AntiToxin, Bing muestra pornografía infantil con simples búsquedas sin restricción ni advertencia.

El informe titulado \”Cómo el Bing de Microsoft asiste en la búsqueda de pornografía infantil\” encontró que buscar términos como \”porn kids\” (porno niños), \”porn CP\” (abreviación conocida para el término \’pornografía infantil\’) y \”nude family kids\” (niños desnudos de familia), arrojan resultados de imágenes de explotación infantil.

Aún peor es el hecho de que incluso si un usuario no está buscando nada relacionado, el buscador puede terminar sugiriendo resultados perturbadores. Cuando los investigadores buscaron usando el término \”Omegle Kids\”, que se refiere a un chat popular entre niños y adolescentes, las sugerencias de autocompletado de Bing incluían cosas como \”Omegle Kids Girls 13\”, y los resultados de esas búsqueda ofrecían montones de pornografía infantil.

Microsoft está al tanto y no es la primera vez que se denuncia esto

Imagen de TechCrunch / AntiToxin

Tras ser informados, Jordi Ribas, vicepresidente de Bing y los productos de IA de Microsoft ofreció una declaración al respecto:

Claramente estos resultados son inaceptables bajo nuestros estándares y políticas y apreciamos que TechCrunch nos haya hecho conscientes de ello. Actuamos de forma inmediata para eliminarlos, pero también queremos prevenir otras violaciones similares en el futuro. Estamos enfocados en aprender de esto para que podamos hacer otras mejoras necesarias.

Pero esta no es la primera vez que un medio llama la atención sobre los resultados del buscador de la empresa. En octubre de 2018, HowToGeek había publicado un artículo en el que explicaban cómo los resultados de Bing ofrecían desde sugerencias racistas, conspiparanoícas, a sugerencias de imágenes de pornografía infantil y bestialidad, simplemente desactivando la búsqueda segura.

En ese entonces, Microsoft declaró que estaban tomando cartas en el asunto y previniendo que ese contenido desapareciera, pero una actualización del artículo explicaba que seguían encontrando resultados de material ofensivo, y dado que la investigación de AntiToxin se llevó a cabo entre el 30 de diciembre de 2018 y el 7 de enero de 2019, queda claro que no habían podido resolverlo.

Esta investigación también se llevó a cabo desactivando la \”búsqueda segura\” y desde la versión de escritorio de Bing. Algo que se hace en apenas tres clicks desde la página de inicio del buscador.

Microsoft afirma que tiene un equipo de ingenieros dedicados a arreglar los problemas y están trabajando para bloquear las búsquedas y sugerencias problemáticas, sin embargo, AntiToxin encontró que aunque algunos de los términos de la investigación ya se habían bloqueado o limpiado a la hora de la publicación del informe, otros permanecían iguales.

La empresa combina el uso de inteligencia artificial con moderadores humanos para intentar filtrar el contenido de sus resultados, pero no han revelado cuántas personas trabajan como moderadores ni si planean aumentar el número de empleados destinados a esta labor.

Microsoft tampoco ha estado libre de polémicas en este sentido, en 2017 la empresa fue demandada por precisamente dos de sus trabajadores del equipo de moderación. Estos alegaron haber desarrollado estrés post-traumático por tener que someterse a ver contenido perturbador a diario que iba desde abuso de menores a asesinatos y que la empresa no les había advertido adecuadamente sobre los peligros de ese tipo de trabajo.

Otras empresas tampoco son ajenas a este problema, como pudimos comprobar a principios de 2018, las sugerencias de Facebook estaban invadidas también de pedofilia, vídeos violentos, pornorgrafía y demás contenido perturbador e ilegal, y más recientemente enfrentan otro grave problema de pornografía infantil en WhatsApp y sus grupos.